pull-deploy: Tweak documentation to show using it for switching trees

admin: Use linkcopy_sync_data() for initramfs instead of rename()

It's possible (likely even) that /tmp is on a separate filesystem; in
that case, a raw rename() is going to fail.

Saw this on the ostree.gnome.org builder.

prune: Use g_format_size() so we get a human-readable number

We don't really care about the precise bytes.

waitablequeue: Only use API from GLib 2.34

As intended.

Release 2013.2

build: Add scripts to EXTRA_DIST

...because Automake apparently doesn't.

switchroot: Suppress compiler warning for asprintf

We're not going to run OOM here, if we do, we're totally screwed
anyways.

Release 2013.1

pull: Rework threading communication model

Previously, I've observed bugs where we either:
1) Exit too early, leaving undownloaded objects
2) Hang while downloading

This rewrite hopefully fixes both.

run-apache: Use -DFOREGROUND, not -X

-X implies debug mode which limits the workers to 1, which totally
kills parallelism.

core: Fix object enumeration for archive-z2 repositories

This makes fsck work again, among other things.

pull: Drop support for original archive repositories

For future refactoring here, it's just too complex to maintain support
for both of them, and the advantages of archive-z2 outweigh archive
too much.

tests: Update expected diff output

For previous diff commit.

admin: Assume we're using /ostree if there's a toplevel /usr

Mainly so admin install works without an existing /ostree again.

admin: Support installing pregenerated initramfs images from tree

Us running dracut is a hack, basically.  We should default to
generating this on the server.

build: Bump GLib dependency to 2.34.0

Just cleaner than an unstable version.

config-diff: Properly print files relative to root

Just less ugly.

admin: Fix lookup of active root

This should hopefully *really* fix deleting running deployments

https://bugzilla.gnome.org/show_bug.cgi?id=694762

admin: Don't delete the running deployment

https://bugzilla.gnome.org/show_bug.cgi?id=694762

deploy: Don't run triggers if /usr/share/ostree/triggers-run exists

This is preparatory work for a future gnome-ostree commit where we'll
default to running triggers on the build server side.

Update libgsystem

core: Use default /sysroot/ostree/repo or just /ostree/repo as appropriate

The old logic was just weird, special casing root, and we can easily
autodetect the case where we need /ostree/repo.

build: Use AC_SYS_LARGEFILE

So we do the right thing on 32 bit.

pull-local: Don't call g_hash_table_init() on a NULL hash

Not sure why this wasn't crashing before.

core: Add API to convert csum -> checksum without malloc()

Just doing some profiling, this was in the top malloc() callers.

pull-local: Fix uninitialized variable ref

TODO: A few updates

pull-local: Output status even in non-tty case

This way I can see progress when running builddisks.

admin: Use /sysroot/ostree automatically

When booted inside an ostree system, we want /sysroot/ostree, not
just /ostree by default.

switchroot: Use MS_MOVE to / rather than chroot

This fixes a number of bugs; the two biggest are:

1) On shutdown systemd can correctly umount /
2) We can use linux-user-chroot inside the system, as is
   necessary to do upgrades

See http://lists.freedesktop.org/archives/systemd-devel/2012-September/006703.html

pull-deploy: Allow switching trees too

$ ostree admin pull-deploy gnome-ostree trees/gnomeos-3.8-x86_64-devel

Now works to switch your current tree to -devel from the current
runtime.

pull-local: Fix crasher in previous commit when not connected to tty

pull-local: Port to GSConsole

pull-local: Support pulling checksums too

This matches what pull allows.

libgsystem: Update to the latest

admin: Don't overwrite previous ref unless it's different

We shouldn't overwrite deploy/<osname>/previous unless we actually
have something new.

This fixes the bug where two consecutive:

$ ostree admin upgrade foo
$ ostree admin upgrade foo

would end up pruning the data for foo/previous from the repo.

pull: Drop dead code to pad output strings too

This is in GSConsole now.

Port ostree-pull to GSConsole

As part of this, we need to ensure our streams are inherited across
the chain of child processes.

Update to the latest libgsystem

admin install: Ensure /ostree is initialized first

https://bugzilla.gnome.org/show_bug.cgi?id=692008

admin: Ensure /var/log/journal exists

This is admittedly a hack, since the story is that services should be
handling /var on their own.  But on the other hand the current systemd
story is that admins should create it to enable it.  Possibly a better
fix is --enable-journal-always or something for systemd.

update-kernel: Change dracut to use tmpdir on host, fix deploy path lookup

We had a bit of legacy code that looked for "current" if the deploy
path was unspecified; this needs to be deploy/OSNAME/current.

Secondly, we need to point dracut at a tmpdir outside of the root when
doing FUSE, because directories with mode 0700 and owned by root:root
aren't writable.

Also update libgsystem to the latest.

admin: Add --no-bootloader option to update-kernel

Will be used by the QA scripts, since we need to inspect the kernel
configuration and generate a correct grub conf from that, rather than
trying to have update-bootloader reuse an existing config, since there
won't be one initially.

Update to the latest libgsystem

admin update-kernel: Drop support for booting from host kernel

Now that gnome-ostree has a kernel, this functionality is no longer
necessary.  It was always a hack.

admin update-kernel: Ensure initramfs has correct owner/mode

It was 0600, and owned by the creating process (in the fuse case,
non-root!).  We want it 0644/root/root.

admin: Propagate --boot-dir to subcommands

Really, I should be using internal functions here...

core: Drop dead prototypes from header

Followup to previous commit.

core: Reuse more libgsystem API in utils

More code drain to libgsystem.

core: Ensure kernel and initramfs are put into place with fdatasync()

Via a new libgsystem API.

core: Drain fdatasync() API into libgsystem

Just code cleanup.

admin: Allow specifying --boot-dir

This is intended for use by QA tools that want to manipulate a
loopback-mounted disk image or the like.

admin: restore current-etc symlink

It is useful now like it was before, and it is used by the grub
update script.

https://bugzilla.gnome.org/show_bug.cgi?id=690743

Release 2012.13

pull: Fix a race condition causing an early exit

This is a little less magical than what we had before.

pull: Use a basic exponential moving average for bytes/sec

Still should look what other downloading programs do, but this
is better then what we had before.

admin: Add new run-triggers command

In some cases we want the ability to run triggers independently of
checking out a tree.  For example, due to kernel limitations which
impact the gnome-ostree build system, we may need to run triggers on
first boot via systemd.

Secondarily, if the user installs a system extension which adds a new
shared library to /usr/lib for example, the system will need to run
the triggers again.

Also, I think I want to take triggers out of the core and put them in
ostree admin anyways.

admin: Rework /ostree/deploy to support multiple independent operating systems

The real vision of OSTree is to "multiple versions of multiple
operating systems".  Up until now, it's worked to install gnome-ostree
inside a host distribution, but several things don't work quite right
if you try to do completely different systems.

In the new model, there's the concept of an "osname" which encompasses
a few properties:

1) Its own /var
2) A set of trees deployed in /ostree/deploy/OSNAME/
3) Its own "current" and "previous" links.

Now it no longer really makes sense to boot with "ostree=current".
Instead, you specify e.g. "ostree=gnome/current".

This is an incompatible change to the deployment code - you will need
to run init-os gnome and redeploy.

All "ostree admin" subcommands now take an OSNAME argument.

admin: Support installing a kernel from the tree, default to it

The "protocol" here is rather lame; we just look for
/boot/vmlinuz-RELEASE and /lib/modules/RELEASE.  But good enough for
now.

core: Use new libgsystem GSSubprocess API

It's less screwing around with GPtrArray in most cases.

build: Set libsoup min/max defines

So we don't get warnings about soup_requester being deprecated.

core: Pick better names for tmpfiles if no prefix given

Just makes it easier to track down where files came from.

OtWorkerQueue: Don't exit until we've fulfilled initial requests

This counts as an implicit "hold" on the first items, which we must
complete.  Otherwise there are race conditions where the queue may
signal idle when in fact the main process is still working.

Update to latest libgsystem

Has a bugfix change to gs_subprocess_new().

core: Allow creating tempfile without associated output stream

Just slightly more efficient, and we'll use this for spawning curl to
a tempfile.

core: Clean up tmpfile creation code

I have been seeing random failures here...not entirely sure why yet,
but this code is cleaner.

Update libgsystem

Just keeping up.

admin init-fs: New builtin

Should be used when initializing a new root filesystem for a "pure
OSTree" system; for example, what "ostbuild privhelper-deploy-qemu"
does when creating a filesystem image loopback.

admin: Process newly added config files recursively

Previously we just failed out if there was a new directory in /etc
added by the user (or the system).

Update to the latest libgsystem

Update to latest libgsystem

Has a rather important bugfix.

core: Use mmap() with O_NOATIME if merely reading archive-z2 entries

Previously we'd open(path, O_NOATIME) and do a series of small read()
calls to just parse the header.  I think this will trigger kernel readahead
into the compressed portion, but we don't care about that.

This should be more efficient.

cleanup: Rebase spawn API on top of libgsystem GSSubprocess

We didn't need most the parameters anyways, so this is fewer lines of
code.  It also helps me test GSubprocess.

Update to the latest libgsystem

Switch to using libgsystem shutil

More code moved into libgsystem.

Switch to libgsystem file reading API

More draining common utilities into libgsystem.

Switch to libgsystem directory creation API

More code being dropped into a common place.

otutil: Move checksum related bits into checksum-utils.[ch]

This paves the way for slimming ot-gio-utils.[ch] into libgsystem.

Drop some bits from libotutil that are now merged in libgsystem

libotutil: Drop dead prototype

Was never implemented.

deploy: With --no-kernel, do copy host kernel modules

This is used by the qemu scripts, and there we *do* need the kernel
modules inside the target system.

pull-local: Make multithreaded

We were blocking for easily 1/10 or 1/5 of a second in fdatasync(),
which drastically slows down the whole process.

This threading isn't quite as good as the ostree-pull command, but it
lets us avoid the dependency on libsoup everywhere, and it's simpler.

core: Drop old GLIB_CHECK_VERSION(2.32) bits

We hard require 2.34 now; if it doesn't exist on the system, that's
what embedded dependencies are for.

admin prune: New builtin for cleaning up deployments and repo

After a while of pull-deploy cycles, you start to accumulate a lot of
them.  While the deployment read-only part is hardlinked, the -etc
space adds up.

Additionally, the repository itself just gets large.

The new command "ostree admin prune" deletes everything except the
"current" and "previous" deployments.

deploy: Write refs into repo for current/previous deployments

We don't want this data to be gc'd by default by a prune.

prune: Report how much disk space we freed

Just nicer to see...

prune: Add option to traverse refs only

The previous code (unintentionally) only traversed from refs; so data
only reachable from previous commits would be deleted.  That shouldn't
be the default, but we do want to offer it as an option.

So add a --refs-only option.

traverse: Skip already traversed commits

This is just more efficient, since e.g. "ostree prune" may invoke
ostree_traverse_commit() multiple times for the same commit.

prune: Default to deleting loose objects, code cleanup

We're getting closer to matching 'git gc'.

admin: code cleanup

Refactor internal functions so they can be used by a later patch.

ostree.spec.in: Update from Fedora review comments

See https://bugzilla.redhat.com/show_bug.cgi?id=819951

Release 2012.12

ot-main: Ignore lt- prefixes in binary names

libtool is the best

https://bugzilla.gnome.org/show_bug.cgi?id=682438

admin: Add new pull-deploy command

Fetch the latest for the current tree, and deploy it in one go.

libgsystem: Update

Make ostree admin --help output more useful

At a minimum, it should list the available subcommands. This is
still not perfect, since there is no way to get at the help output
of the subcommands - getting that right needs more refactoring.

Signed-off-by: Colin Walters <walters@verbum.org>

core: quiet a compiler warning

core: Check out files before directories

Otherwise we pretty easily hit maximum FD limits =(

core: Ensure correct file data is synced in non-overwrite case

core: Use linkat() rather than link() in threaded checkouts

This seems to work around a likely Linux kernel VFS bug, where I
randomly see ENOENT on link() when we *definitely* called mkdir() at
an earlier point in time.